트럼프 행정부는 '각성(AI) 방지' 행정명령과 AI 행동계획을 통해 연방정부가 조달하는 AI 모델이 백악관이 정의하는 '진실'을 반영하도록 요구하고 있습니다. 필자는 이것이 표면상의 반드시 중립을 주장하면서도 실제로는 하향식 이데올로기 편향을 강제하는 조치이며, 언론 자유와 기업의 AI 중립성에 대한 역설적 위협이라고 비판합니다.
AlgorithmWatch 조사에 따르면 ChatGPT, Gemini, Grok, Claude가 원치 않는 임신 관련 질문에 4건 중 최소 1건 꼴로 반낙태 단체 웹사이트 링크를 제공하면서 그 성향을 알리지 않았다. 특히 미국의 대표적 반낙태 단체 Heartbeat International과 연결된 Profemina가 전체 응답의 약 17%에 등장했으며, 독일어권 사용자에게는 낙태에 필수적인 상담 증명서를 발급하지 않는 Caritas를 추천해 중요한 시간을 잃게 만들 수 있는 것으로 나타났다. 이는 AI 응답이 검증되지 않은 정보의 '책임 없는 게이트키퍼' 역할을 한다는 점에서 민감한 주제 전반에 시사하는 바가 크다.
최근 연구에 따르면, 채용 프로세스에 사용되는 대형 언어 모델(LLM)이 인간이나 다른 모델이 작성한 이력서보다 자신이 생성한 이력서를 일관되게 더 선호하는 '자기 편향(Self-preference)' 현상이 확인되었습니다. 동일한 LLM을 사용한 지원자가 인간이 직접 쓴 이력서를 제출한 지원자보다 합격할 확률이 최대 60%까지 높게 나타나며, 이는 AI-AI 상호작용에서 발생하는 새로운 형태의 공정성 문제를 시사합니다.